Trước khi vào Quốc hội, Khan đại diện cho Tooting như một thành viên Hội đồng cho London Borough của Wandsworth 1994-2006, và đã được tặng danh hiệu danh dự Alderman của Wandsworth khi thôi không hoạt động chính trị địa phương.[20]

Năm 2005 ông đại diện cho Công đảng Anh được bầu làm đại biểu quốc hội (MP) tại Tooting, một trong 5 đại biểu mới thuộc dân tộc thiểu số, và giữ chức vụ này cho tới hiện tại sau 2 lầm tái đắc cử.[21]

Khan đã được trao giải "Nhân vật mới của năm" 2005 của báo Spectator trong giải thưởng Nghị sĩ của năm "cho ý tưởng bất khuất và sự rõ ràng mà ông đã bày tỏ về những vấn đề rất khó khăn về khủng bố Hồi giáo".[22] Vào tháng 8 năm 2006, ông đã ký vào một bức thư ngỏ gởi đến Tony Blair chỉ trích chính sách đối ngoại của ông ta.[23]